New York Times | 2024-03-01 | 19:15:29

Его, страх и пари: Как ИИ Fuse Was Lit

Elon Musk отпразнува своя 44-ти рожден ден през юли 2015 г. на тридневно парти, организирано от съпругата му в калифорнийски винен курорт, осеян с хижи. Беше само семейство и приятели, с деца, които се състезаваха около луксозния имот в Напа Вали.

Това беше години преди Twitter да стане X и Tesla да има печеливша година. Г-н Мъск и съпругата му Талула Райли – актриса, която изигра красив, но опасен робот в научно-фантастичния сериал на HBO „Westworld“ – бяха на една година от хвърлянето на кърпата на втория си брак. Лари Пейдж, гост на партито, все още беше главен изпълнителен директор на Google. А изкуственият интелект бе пронизал общественото съзнание само преди няколко години, когато беше използван за идентифициране на котки в YouTube — с 16 процента точност.

A.I. беше голямата тема на разговор, когато г-н Мъск и г-н Пейдж седнаха до огнище до плувен басейн след вечеря първата вечер. Двамата милиардери бяха приятели от повече от десетилетие и г-н Мъск понякога се шегуваше, че от време на време се блъскаше на дивана на г-н Пейдж след нощ, играна на видео игри.

Но тонът през онази ясна нощ скоро стана спорен, докато двамата спореха дали изкуственият интелект в крайна сметка ще издигне човечеството или ще го унищожи.

необичайно заболяване на гласните му струни, описа шепнешком визията си за цифрова утопия. Хората в крайна сметка ще се слеят с изкуствено интелигентни машини, каза той. Един ден ще има много видове интелигентност, състезаващи се за ресурси и най-добрият ще спечели.

Ако това се случи, каза г-н Мъск, ние сме обречени. Машините ще унищожат човечеството.

С рязко разочарование г-н Пейдж настоя, че неговата утопия трябва да бъде преследвана. Накрая той нарече г-н Мъск „специалист“, човек, който предпочита хората пред цифровите форми на живот на бъдещето.

Тази обида, каза г-н Мъск по-късно, беше „последната капка.”

Мнозина в тълпата изглеждаха шокирани, макар и развеселени, докато се разпръсваха за нощта, и смятаха, че това е просто още един от онези езотерични дебати, които често избухват на партита в Силициевата долина.

Но осем години по-късно спорът между двамата мъже изглежда пророчески. Въпросът дали изкуственият интелект ще издигне света или ще го унищожи – или най-малкото ще нанесе сериозни щети – постави началото на продължаващ дебат сред основателите на Силициевата долина, потребителите на чатботове, академиците, законодателите и регулаторите за това дали технологията трябва да бъде контролирана или освободена.

Този дебат изправи някои от най-богатите хора в света един срещу друг: г-н Мъск, г-н Пейдж, Марк Зукърбърг от Meta, технологичният инвеститор Питър Тийл, Сатя Надела на Microsoft и Сам Алтман от OpenAI. Всички са се борили за част от бизнеса — който един ден може да струва трилиони долари — и силата да го оформят.

опитаха се да изтласкат г-н Алтман, защото вярваха, че вече не могат да му се доверят изграждане на A.I. което би било от полза за човечеството. В продължение на пет хаотични дни OpenAI изглеждаше така, сякаш щеше да се разпадне, докато бордът — притиснат от гигантски инвеститори и служители, които заплашваха да последват г-н Алтман през вратата — отстъпи.

Драмата в OpenAI даде на света за първи път поглед към горчивите вражди между онези, които ще определят бъдещето на ИИ.

Но години преди OpenAI да се срине, беше малко рекламирано, но жестоко състезание в Силиконовата долина за контрол върху технологията, която сега бързо прекроява света, от това как се обучават децата до това как се водят войните. New York Times разговаря с повече от 80 ръководители, учени и предприемачи, включително двама души, които присъстваха на партито за рождения ден на г-н Мъск през 2015 г., за да разкаже тази история за амбиция, страх и пари.

Раждането на DeepMind

Пет години преди партито в Напа Вали и две преди пробива на котките в YouTube, Демис Хасабис, a 34-годишният невролог влезе на коктейл в къщата на Питър Тийл в Сан Франциско и осъзна, че е ударил мръсотия. Във всекидневната на г-н Тийл, с изглед към градския Дворец на изящните изкуства и лебедово езерце, имаше шахматна дъска. Д-р Хасабис някога беше вторият най-добър играч в света в категорията под 14 години.

„Подготвях се за тази среща в продължение на една година“, д-р. Хасабис каза. „Мислех, че това ще бъде моята уникална кукичка: знаех, че той обича шаха.“

Рационалисти или, в по-късните години, ефективни алтруисти.

Те вярваха че А.И. биха могли да намерят лек за рак или да разрешат изменението на климата, но те се притесняваха, че A.I. ботовете могат да правят неща, които техните създатели не са предвидили. Ако машините станат по-интелигентни от хората, твърдят рационалистите, машините могат да се обърнат срещу своите създатели.

Mr. Тийл беше станал изключително богат чрез ранна инвестиция във Facebook и чрез работата си с г-н Мъск в ранните дни на PayPal. Той беше развил очарование от сингулярността, троп на научната фантастика, който описва момента, в който интелигентните технологии вече не могат да бъдат контролирани от човечеството.

С финансиране от г-н Тийл , г-н Юдковски беше разширил своя ИИ. лаборатория и създаде годишна конференция за сингулярността. Преди години един от двамата колеги на д-р Хасабис се срещна с г-н Юдковски и той им намери места за изказване на конференцията, гарантирайки, че ще бъдат поканени на партито на г-н Тийл.

невронни мрежи, сложни алгоритми, създадени в изображение на човешкия мозък. Невронната мрежа е по същество гигантска математическа система, която прекарва дни, седмици или дори месеци в идентифициране на модели в големи количества цифрови данни. Първоначално разработени през 50-те години на миналия век, тези системи могат да се научат да се справят сами със задачи. След като анализираха имена и адреси, надраскани върху стотици пликове, например, те можеха да четат ръкописен текст.

DeepMind доразви концепцията. Той изгради система, която може да се научи да играе класически игри на Atari като Space Invaders, Pong и Breakout, за да илюстрира какво е възможно.

разпознава обичайни обекти като цветя, кучета и коли.

Учените бяха изненадани от точността на технологията, създадена от д-р Хинтън и неговите ученици. Един, който обърна специално внимание, беше Ю Кай, ИИ. изследовател, който е срещнал д-р Хинтън на изследователска конференция и наскоро е започнал работа за Baidu, гигантската китайска интернет компания. Baidu предложи на д-р Хинтън и неговите ученици 12 милиона долара, за да се присъединят към компанията в Пекин, според трима души, запознати с офертата.

Dr. Хинтън отказа на Baidu, но парите привлякоха вниманието му.

Образованият в Кеймбридж британски емигрант е прекарал по-голямата част от кариерата си в академичните среди, с изключение на случайни престой в Microsoft и Google , и не беше особено воден от парите. Но той имаше невродивергентно дете и парите щяха да означават финансова сигурност.

„Не знаехме колко струваме“, каза д-р Хинтън. Той се консултира с адвокати и експерти по придобиванията и излезе с план: „Ще организираме търг и ще се продадем“. Търгът ще се проведе по време на годишен A.I. конференция в хотела и казиното Harrah’s на езерото Тахо.

победете един от най-добрите играчи в света в древната игра Го. Играта, предавана по интернет, беше гледана от 200 милиона души по целия свят. Повечето изследователи са приели, че A.I. имаха нужда от още 10 години, за да съберат изобретателността да направят това.

A.I. работа в Tesla. През февруари 2018 г. той обяви напускането си пред персонала на OpenAI на последния етаж на офисите на стартиращата компания в преустроена фабрика за камиони, казаха трима души, присъствали на срещата. Когато каза, че OpenAI трябва да се движи по-бързо, един изследовател отвърна на срещата, че г-н Мъск е безразсъден.

г-н. Мъск нарече изследователя „магар“ и изхвърча, отнасяйки дълбоките си джобове със себе си.

OpenAI внезапно се нуждаеше от ново финансиране и набързо. Г-н Алтман отлетя до Sun Valley за конференция и се натъкна на Сатя Надела, главен изпълнителен директор на Microsoft. Връзката изглеждаше естествена. Г-н Алтман познаваше главния технологичен директор на Microsoft, Кевин Скот. Microsoft беше купил LinkedIn от г-н Хофман, член на борда на OpenAI. Г-н Надела каза на г-н Скот да го направи. Сделката приключи през 2019 г.

Mr. Altman и OpenAI бяха създали компания с печалба в рамките на първоначалната организация с нестопанска цел, имаха 1 милиард долара свеж капитал и Microsoft имаше нов начин да вгради изкуствен интелект в своята огромна услуга за облачни изчисления.

Не всички в OpenAI бяха доволни.

Дарио Амодей, изследовател с връзки с общността на ефективните алтруисти, беше на разположение в хотел Rosewood, когато OpenAI е роден. Д-р Амодей, който безкрайно въртеше къдриците си между пръстите си, докато говореше, ръководеше усилията на лабораторията за изграждане на невронна мрежа, наречена голям езиков модел, който можеше да се учи от огромни количества цифров текст. Чрез анализиране на безброй статии в Wikipedia, цифрови книги и табла за съобщения, той може сам да генерира текст. Имаше и неприятния навик да си измисля нещата. Наричаше се GPT-3 и беше пуснат през лятото на 2020 г.

Изследователи в OpenAI, Google и други компании смятаха, че тази бързо подобряваща се технология може да бъде път към A.G.I.

Но д-р Амодей не беше доволен от сделката с Microsoft, защото смяташе, че тя отвежда OpenAI в наистина комерсиална посока. Той и други изследователи отидоха до борда, за да се опитат да изтласкат г-н Алтман, според петима души, запознати с въпроса. След като не успяха, си тръгнаха. Подобно на основателите на DeepMind преди тях, те се притесняваха, че новите им корпоративни господари ще предпочетат търговските интереси пред безопасността.

През 2021 г. групата от около 15 инженери и учени създаде нова лаборатория наречен антропичен. Планът беше да се изгради A.I. начина, по който ефективните алтруисти смятаха, че трябва да се направи – с много строг контрол.

„Нямаше опит да се премахне Сам Алтман от OpenAI от съоснователите на Anthropic,“ каза говорителката на Anthropic, Сали Олдъс. „Самите съоснователи стигнаха до заключението, че желаят да напуснат OpenAI, за да създадат собствена компания, съобщиха това на ръководството на OpenAI и в продължение на няколко седмици преговаряха за излизане при взаимно приемливи условия.“

Anthropic прие инвестиция от $4 милиарда от Amazon и още $2 милиарда от Google две години по-късно.